Pod 自动扩缩容

在前面的课程中,我们提到过通过手工执行kubectl scale命令和在Dashboard上操作可以实现Pod的扩缩容,但是这样毕竟需要每次去手工操作一次,而且指不定什么时候业务请求量就很大了,所以如果不能做到自动化的去扩缩容的话,这也是一个很麻烦的事情。如果Kubernetes系统能够根据Pod当前的负载的变化情况来自动的进行扩缩容就好了,因为这个过程本来就是不固定的,频繁发生的,所以纯手工的方式不是很现实。

幸运的是Kubernetes为我们提供了这样一个资源对象:Horizontal Pod Autoscaling(Pod水平自动伸缩),简称HPAHAP通过监控分析RC或者Deployment控制的所有Pod的负载变化情况来确定是否需要调整Pod的副本数量,这是HPA最基本的原理。

hpa

HPAkubernetes集群中被设计成一个controller,我们可以简单的通过kubectl autoscale命令来创建一个HPA资源对象,HPA Controller默认30s轮询一次(可通过kube-controller-manager的标志--horizontal-pod-autoscaler-sync-period进行设置),查询指定的资源(RC或者Deployment)中Pod的资源使用率,并且与创建时设定的值和指标做对比,从而实现自动伸缩的功能。

当你创建了HPA后,HPA会从Heapster或者用户自定义的RESTClient端获取每一个一个Pod利用率或原始值的平均值,然后和HPA中定义的指标进行对比,同时计算出需要伸缩的具体值并进行相应的操作。目前,HPA可以从两个地方获取数据:

  • Heapster:仅支持CPU使用率
  • 自定义监控:我们到后面的监控的课程中再给大家讲解这部分的使用方法

我们这节课来给大家介绍从Heapster获取监控数据来进行自动扩缩容的方法,所以首先我们得安装Heapster,前面我们在kubeadm搭建集群的课程中,实际上我们已经默认把Heapster相关的镜像都已经拉取到节点上了,所以接下来我们只需要部署即可,我们这里使用的是Heapster 1.4.2 版本的,前往Heapstergithub页面:

https://github.com/kubernetes/heapster

我们将该目录下面的yaml文件保存到我们的集群上,然后使用kubectl命令行工具创建即可,另外创建完成后,如果需要在Dashboard当中看到监控图表,我们还需要在Dashboard中配置上我们的heapster-host

同样的,我们来创建一个Deployment管理的Nginx Pod,然后利用HPA来进行自动扩缩容。定义DeploymentYAML文件如下:(hap-deploy-demo.yaml)

  1. ---
  2. apiVersion: apps/v1beta1
  3. kind: Deployment
  4. metadata:
  5. name: hpa-nginx-deploy
  6. labels:
  7. app: nginx-demo
  8. spec:
  9. revisionHistoryLimit: 15
  10. template:
  11. metadata:
  12. labels:
  13. app: nginx
  14. spec:
  15. containers:
  16. - name: nginx
  17. image: nginx
  18. ports:
  19. - containerPort: 80

然后创建Deployment

  1. $ kubectl create -f hpa-deploy-demo.yaml

现在我们来创建一个HPA,可以使用kubectl autoscale命令来创建:

  1. $ kubectl autoscale deployment hpa-nginx-deploy --cpu-percent=10 --min=1 --max=10
  2. deployment "hpa-nginx-deploy" autoscaled
  3. ···
  4. $ kubectl get hpa
  5. NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
  6. hpa-nginx-deploy Deployment/hpa-nginx-deploy 10% 0% 1 10 13s

此命令创建了一个关联资源 hpa-nginx-deploy 的HPA,最小的 pod 副本数为1,最大为10。HPA会根据设定的 cpu使用率(10%)动态的增加或者减少pod数量。

当然出来使用kubectl autoscale命令来创建外,我们依然可以通过创建YAML文件的形式来创建HPA资源对象。如果我们不知道怎么编写的话,可以查看上面命令行创建的HPAYAML文件:

  1. $ kubectl get hpa hpa-nginx-deploy -o yaml
  2. apiVersion: autoscaling/v1
  3. kind: HorizontalPodAutoscaler
  4. metadata:
  5. creationTimestamp: 2017-06-29T08:04:08Z
  6. name: nginxtest
  7. namespace: default
  8. resourceVersion: "951016361"
  9. selfLink: /apis/autoscaling/v1/namespaces/default/horizontalpodautoscalers/nginxtest
  10. uid: 86febb63-5ca1-11e7-aaef-5254004e79a3
  11. spec:
  12. maxReplicas: 5 //资源最大副本数
  13. minReplicas: 1 //资源最小副本数
  14. scaleTargetRef:
  15. apiVersion: extensions/v1beta1
  16. kind: Deployment //需要伸缩的资源类型
  17. name: nginxtest //需要伸缩的资源名称
  18. targetCPUUtilizationPercentage: 50 //触发伸缩的cpu使用率
  19. status:
  20. currentCPUUtilizationPercentage: 48 //当前资源下pod的cpu使用率
  21. currentReplicas: 1 //当前的副本数
  22. desiredReplicas: 2 //期望的副本数
  23. lastScaleTime: 2017-07-03T06:32:19Z

好,现在我们根据上面的YAML文件就可以自己来创建一个基于YAMLHPA描述文件了。

现在我们来增大负载进行测试,我们来创建一个busybox,并且循环访问上面创建的服务。

  1. $ kubectl run -i --tty load-generator --image=busybox /bin/sh
  2. If you don't see a command prompt, try pressing enter.
  3. / # while true; do wget -q -O- http://172.16.255.60:4000; done

下图可以看到,HPA已经开始工作。

  1. $ kubectl get hpa
  2. NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
  3. hpa-nginx-deploy Deployment/hpa-nginx-deploy 10% 29% 1 10 27m

同时我们查看相关资源hpa-nginx-deploy的副本数量,副本数量已经从原来的1变成了3。

  1. $ kubectl get deployment hpa-nginx-deploy
  2. NAME DESIRED CURRENT UP-TO-DATE AVAILABLE AGE
  3. hpa-nginx-deploy 3 3 3 3 4d

同时再次查看HPA,由于副本数量的增加,使用率也保持在了10%左右。

  1. $ kubectl get hpa
  2. NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
  3. hpa-nginx-deploy Deployment/hpa-nginx-deploy 10% 9% 1 10 35m

同样的这个时候我们来关掉busybox来减少负载,然后等待一段时间观察下HPADeployment对象

  1. $ kubectl get hpa
  2. NAME REFERENCE TARGET CURRENT MINPODS MAXPODS AGE
  3. hpa-nginx-deploy Deployment/hpa-nginx-deploy 10% 0% 1 10 48m
  4. $ kubectl get deployment hpa-nginx-deploy
  5. NAME DESIRED CURRENT UP-TO-DATE AVAILABLE AGE
  6. hpa-nginx-deploy 1 1 1 1 4d

可以看到副本数量已经由3变为1。

不过当前的HPA只有CPU使用率这一个指标,还不是很灵活的,在后面的课程中我们来根据我们自定义的监控来自动对Pod进行扩缩容。